Ecdysis: Efficient and Effective Training of Runtime Harnesses for LLM Agents
Ecdysis:高效训练LLM Agent运行时harness的失败诊断驱动框架
🧭 Agent 运行时自进化 · 失败归因 ★ 深度解读
Chengdu Institute of Computer Applications, Chinese Academy of Sciences · University of Chinese Academy of Sciences · Beijing Institute of Technology · Beijing University of Technology · Yangtze Delta Region Institute of Tsinghua University, Zhejiang
跨任务失败聚合与多角色协作诊断,区分模型适配与系统缺陷,实现训练加速与泛化提升
📌 工作参考价值(4 点)
- 在搜索/推荐 Agent 的 workflow 优化中,不要针对单条失败 case 直接改 prompt 或工具逻辑;先批量收集失败轨迹,按“失败模式”跨任务分组,只对重复出现的模式做系统级修改,能显著减少过拟合和重复修改成本。
- 把“诊断”与“实施”分离:用 Analyst/Critic/Engineer/Moderator 多角色写结构化修改规范,再交给 coding agent 改代码。这相当于在修改工作流前加一道评审,能降低无效修改,提升输入 cache 命中率(论文从 89% 升到 96%)。
- 用诊断价值选训练样本:优先选暴露新交互路径和未知失败机制的任务,而不是全量随机;论文中仅用 1/4 训练失败样本就接近全量效果,可用于电商/广告 bad case 分析的降本。
- 监控 model-accommodation ratio:统计修改中有多少是在迁就当前 LLM 的怪癖;若过高,该 workflow/工具链很可能只对当前模型有效,换模型会退化。可把这个指标纳入 Agent 上线前的回归检查。